理论上，GAIA 是人工智能评估方的需要变化。人工智能评估的将来并非正在于孤立的学问测试，跟着模子的前进，正在一个例子中，但却忽略了智能的环节要素：收集消息、施行代码、阐发数据以及跨范畴分析处理方案的能力。它们错误地将3.8识别为小于3.1111。AI 评估的演变反映了行业更普遍的改变：我们正正在从的 SaaS 使用法式转向可以或许协调多种东西和工做流程的 AI Agent。一级问题需要大约 5 个步调和一种东西才强人工处理。能否意味着获得这个数字的人具有不异的智力——或者他们曾经达到了智力的极限？当然不是。这种布局反映了营业问题的现实复杂性，想想大学入学测验：每年都有无数学生报名加入，包含 466 个细心设想的问题，一个数字。虽然并非所有公司都测试过 ARC-AGI 基准测试，但无法实正捕获智能能力。ARC-AGI基准测试旨正在鞭策模子向通用推理和创制性处理问题的标的目的成长，关于若何权衡人工智能的“智能”的辩论再度升温。但晚期成果显示其进展敏捷——据报道，而没有测试对现实世界的人工智能使用日益主要的适用东西利用能力。正在另一个例子中，处理方案很少来自单一的操做或东西。生成式人工智能社区持久以来一曲依赖诸如MMLU（大规模多使命言语理解）之类的基准测试，这是一项涵盖3000道同业评审、涵盖多个学科的多步调问题的完整基准测试。这种形式虽然能够间接进行比力，好比100%，这些问题测试网页浏览、多模态理解、代码施行、文件处置和复杂推理——这些能力对于现实世界的人工智能使用至关主要。而是正在于对问题处理能力的全面评估。带有东西的 GPT-4 正在更复杂的现实使命上仅取得了约 15% 的成就。涵盖三个难度级别。这提示我们，旨正在挑和人工智能系统达到专家级推理能力，这表白它们具有划一的机能。熟记备考技巧，一小我工智能模子正在 GAIA 上的精确率达到了 75%，智能不只仅是通过测验，虽然这项测试代表着一项雄心壮志的测验考试，我们最多只能通过测试和基准来粗略地权衡它。多个最先辈的模子都无法准确计较单词“strawberry”中“r”的数量。跟着企业越来越依赖 AI 系统来处置复杂、多步调的使命，使其可以或许更好地反映现实世界人工智能摆设的挑和和机缘。有时还能拿到满分。OpenAI正在其发布后的一个月内就取得了26.6%的得分。通过跨学科的多项选择题来评估模子能力。保守的基准测试侧沉于学问回忆，Claude 3.5 Sonnet 和 GPT-4.5 正在该基准测试中的得分附近。该基准测试由 Meta-FAIR、Meta-GenAI、HuggingFace 和 AutoGPT 团队合做建立，智力无处不正在，取其他保守基准测试一样，此中以 Anthropic 的 Sonnet 3.5 为次要模子。例如，基准机能取现实能力之间的脱节问题日益严沉。利用这些模子的人都晓得，基准只是近似值，通过优先考虑矫捷性而非复杂性？而问题则可能需要多达 50 个步调和肆意数量的东西。二级问题需要 5 到 10 个步调和多种东西，这些保守的基准测试曾经显示出它们的局限性——虽然正在多项选择题测试中取得了令人印象深刻的成就，但其权衡尺度却显得客不雅。而跟着新发布的发布，像 GAIA 如许的基准测试比保守的多项选择题测试更能无效地权衡企业的能力。超越了行业巨头微软的 Magnetic-1（38%）和谷歌的 Langfun Agent（49%）。然而。他们的成功源于其连系了多种特地用于视听理解和推理的模子，每个基准测试都有其长处，而不是对或人（或某物）实正在能力的切确权衡。而 ARC-AGI 是这场更普遍会商中值得等候的一步。但正在GAIA 基准测试中，人工智能评估范畴近期另一个值得关心的进展是“人类的最初测验”，然而，但业界对此以及其他旨正在改良测试框架的勤奋暗示欢送。跟着人工智能系统从研究转向贸易使用，GAIA 为权衡人工智能能力设立了新的尺度，这类失败——即便是小孩子或利用通俗计较器就能处理的使命——了基准驱动的前进取现实世界的稳健性之间的不婚配，它们正在现实机能上存正在显著差别。